Kalinin là một đồng minh thuộc phe phái của Stalin trong cuộc đấu tranh giành quyền lực sau cái chết của Lenin năm 1924.[4] Ông đã gửi một báo cáo về Lenin và cho Đại hội thế giới lần thứ năm vào năm 1924.[2]

Kalinin là một trong số ít thành viên thuộc phe Stalin xuất thân từ nguồn gốc nông dân. Nguồn gốc xã hội thấp đã được công bố rộng rãi trên báo chí chính thức, trong đó thường gọi Kalinin là "người đứng đầu toàn liên minh" (Всесосзный староста), một thuật ngữ nghe theo xã hội, với vai trò là người đứng đầu của ông.[8] Về mặt thực tế, vào những năm 1930, vai trò của Kalinin với tư cách là người ra quyết định trong chính phủ Liên Xô chỉ là trên danh nghĩa.[9]

Ông nắm giữ rất ít quyền lực hoặc ảnh hưởng ngoài việc nhận được thư ngoại giao từ nước ngoài. Nhớ lại, nhà lãnh đạo Liên Xô tương lai Nikita Khrushchev nói: "Tôi không biết Kalinin đã thực hiện công việc thực tế nào dưới thời Lenin. Nhưng dưới thời Stalin, ông là người ký kết danh nghĩa của tất cả các sắc lệnh, trong khi thực tế, ông hiếm khi tham gia chính phủ. Thỉnh thoảng ông được coi là thành viên của một ủy ban, nhưng mọi người không để tâm ý kiến của ông quá nhiều. Thật xấu hổ khi chúng tôi thấy điều này, người ta đơn giản cảm thấy tiếc cho Mikhail Ivanovich."[10]

Kalinin cư xử rất kín đáo trong cuộc Đại thanh trừng năm 1937. Ông nhận thức rõ về sự đàn áp, và từ năm 1937 đến 1941, hàng trăm người đã đến dacha hoặc gửi đơn thỉnh cầu tới ông để nhờ giúp đỡ do bị bắt giữ. Mặc dù ông phản đối việc xử tử những người bạn bè như Avel Enukidze, ông vẫn phục tùng Stalin với lý do bảo vệ anh ta, đã theo dõi căn hộ của anh ta bởi các sĩ quan NKVD.

Vào ngày 5 tháng 3 năm 1940, sáu thành viên của Bộ Chính trị Liên Xô - Stalin, Vyacheslav Molotov, Lazar Kaganovich, Kliment Voroshilov, Anastas Mikoyan và Mikhail Kalinin - đã ký một lệnh để xử tử 25.700 "người theo chủ nghĩa dân tộc và phản cách mạng" của Ba Lan tại các trại và nhà tù ở miền tây Ukraine và Belarus,[11] một phần của vụ thảm sát Katyn.

Kalinin không thể bảo vệ ngay cả vợ mình. Ekaterina Kalinina, người chỉ trích chính sách của Stalin, và đã bị bắt vào ngày 25 tháng 10 năm 1938 với cáo buộc là "Trotskyist". Mặc dù chồng bà là chủ tịch Đoàn chủ tịch Xô viết tối cao (1938-1946), bà bị tra tấn tại nhà tù Lefortovo và vào ngày 22 tháng 4 năm 1939, bà bị kết án mười lăm năm tù trong trại lao động. Bà đã được thả ra ngay trước khi chồng chết vào năm 1946.[12]